Từ thời kỳ La Mã cho tới Trung Cổ, vị trí của bệnh viên ngày nay là một khu đất nông nghiệp, bao quanh bởi nhiều đầm lầy kéo dài tới tận bờ sông Seine. Những nông dân nghèo ở Saint Marcel gần đó, tới địa điểm này để trồng rau và nho. Thế kỷ 13, việc khai thác đá bắt đầu được tiếng hành ở đây và kéo dài trong nhiều thế kỷ sau đó.

Năm 1612, Marie de Médicis cho xây dựng dưỡng đường Notre Dame de la Pitié trên vị trí của Nhà thờ Hồi giáo ngày nay. Ngày 6 tháng 6 năm 1636, Louis XIII cho mua lại khu vực này để sử dụng làm nơi sản xuất thuốc súng, mang tên Petit Arsenal hay Salpêtrière. Petit Arsenal hoạt động được 15 năm thì đóng cửa. Louis XIV tặng lại mảng đất cho Nữ công tước Aiguillon. Với sự giúp đỡ của Vincent de Paul, Nữ công tước cho xây dựng một dưỡng đường chuyên giúp đỡ những người hành khất[1].

Ngày 27 tháng 4 năm 1656, Louis XIV ký chiếu dụ xây dựng một bệnh viện dành cho những người nghèo ở Paris. Công trình bao gồm nhiều tòa nhà với các chức năng khác nhau: Pitié dành cho trẻ em, Bicêtre cho đàn ông và Salpêtrière dành cho phụ nữ. Việc xây dựng Salpêtrière được giao cho các kiến trúc sư danh tiếng bậc nhất khi đó: Libéral Bruant, Pierre Le Muet, Louis Le Vau... Năm 1684, Louis XIV cho xây dựng thêm một nhà giam giữ gái mại dâm. Salpêtrière khi đó bao gồm một dưỡng đường và một nhà tù. Các bé gái bị bỏ rơi cũng được tập hợp về đây, nuôi nấng, dạy dỗ cho tới khi trưởng thành. Nhà thờ Saint-Louis de la Salpêtrière trở thành địa điểm tổ chức các đám cưới thập thể cho những thiếu nữ này. Trong hai thế kỷ 17 và 18, Salpêtrière đồng thời là nhà trẻ, nhà cứu tế, dưỡng đường, nhà tù, nhà cải tạo.

Trong khoảng thời gian từ 1756 tới 1770, Louis XV cho sửa chữa lại và Salpêtrière dần có được dàng vẻ như ngày nay. Thời Louis XVI, Paris được mở rộng, Salpêtrière thuộc về nội ô thành phố. Vào thời kỳ Cách mạng Pháp, sau khi cách chức toàn bộ ban giám đốc Salpêtrière, Quốc hội lập hiến giao cho Hội đồng thành phố quản lý bệnh viện. Salpêtrière từ một khu vực khép kín dành cho phụ nữ trở thành một nơi trụy lạc, địa điểm các sans-culotte (người cách mạng) tìm đến để thỏa mãn. Trong vụ thảm sát Tháng Chín, ngày 4 tháng 9 năm 1792, 35 phụ nữ đã bị những người tới từ nhà tù Bicêtre giết chết. Tới cuối năm 1792, Salpêtrière dần yên tĩnh trở lại[1].

Thế kỷ 19, Salpêtrière dần trở thành một bệnh việc thực sự. Trong thời gian chiến tranh, năm 1814, Pitié phải đón tiếp các nhóm lính nước ngoài. Còn Salpêtrière dành cho binh lính Pháp. Cách mạng 1848, dưỡng đường bị bãi bọ và tới 1849, cơ quan Cứu tế công cộng được thành lập. Salpêtrière chủ yếu dành cho những nữ bệnh nhân tâm thần, phụ nữ già. Cuối Đệ nhị đế chế, năm 1870, Salpêtrière được sử dụng làm bệnh viện quân y.

Thế kỷ 20, Salpêtrière trở thành một bệnh viện đa khoa. Pitié được xây dựng lại và hợp nhất với Salpêtrière vào năm 1964. Năm 1966, khoa Y thành lập. Pitié-Salpêtrière được đầu tư trong một khoảng thời gian dài, trở thành một trong những bệnh viện lớn nhất châu Âu[1].

Bệnh viện có Institut du cerveau et de la moelle épinière.